دولت هند به ایلان ماسک و شبکه اجتماعی X دستور داده است تا فوراً تغییرات فنی و رویهای لازم را در چتبات هوش مصنوعی Grok اعمال کند. این دستور پس از آن صادر شد که کاربران و قانونگذاران به تولید محتوای «نامناسب» توسط این ابزار، از جمله تصاویر تغییر یافته زنان به کمک هوش مصنوعی، اعتراض کردند.
در روز جمعه، وزارت فناوری اطلاعات هند با صدور دستوری از X خواست اقدامات اصلاحی درباره Grok انجام دهد؛ از جمله محدودیت در تولید هر گونه محتوای مرتبط با «برهنگی، جنسیسازی، مطالب جنسی آشکار یا غیرقانونی». همچنین به این شبکه اجتماعی ۷۲ ساعت فرصت داده شد تا گزارشی از اقدامات انجامشده ارائه دهد که در آن شرح دهد چه تدابیری برای جلوگیری از انتشار یا میزبانی محتوای «نامناسب، مستهجن، مبتذل، غیراخلاقی، جنسی آشکار، مرتبط با افراد کم سن یا هرگونه محتوای ممنوعه طبق قانون» اندیشیده شده است.
این دستور که توسط منبع بررسی شد، هشدار داده بود اگر این الزام رعایت نشود، مصونیت قانونی X در قبال محتوای تولیدشده کاربران که در قانون هند تضمین شده است، در معرض خطر قرار میگیرد.
واکنش دولت هند پس از آن صورت گرفت که کاربران نمونههایی از دستکاری تصاویر افراد، به ویژه زنان، توسط Grok را به اشتراک گذاشتند. این تصاویر سبب شدند زنان به شکلی ظاهر شوند که گویی لباس شنا به تن دارند و این موضوع باعث شکایت رسمی یکی از نمایندگان پارلمان هند، پریانکا چاتورودی، شد. افزون بر این، گزارشهای اخیر به مواردی اشاره داشتند که چتبات هوش مصنوعی تصاویر جنسیشده از افراد زیر سن قانونی تولید میکرد؛ موضوعی که X نیز در همان روز جمعه پذیرفت به واسطه ضعف در سیستمهای ایمنی اتفاق افتاده است. این تصاویر بعداً حذف شدند.
با این حال، بر اساس بررسی منبع، در زمان انتشار مقاله همچنان برخی تصاویر تولیدشده با Grok که زنان را با لباس شنا نشان میداد، روی X قابل مشاهده بود.
این دستور جدید چند روز پس از آن صادر شد که وزارت فناوری اطلاعات هند در روز دوشنبه ابلاغیهای جامع به شبکههای اجتماعی ارسال کرد. در این ابلاغیه، بر ضرورت پایبندی به قوانین محلی درباره محتوای نامناسب و جنسی تأکید شد و گفته شد رعایت این موارد شرط حفظ مصونیت قضایی در برابر محتوای تولیدی کاربران است. در این ابلاغیه به شرکتها توصیه شد تدابیر امنیتی داخلیشان را تقویت کنند و هشدار داد که بیتوجهی به این هشدارها میتواند به پیگرد قضایی بر اساس قوانین فناوری اطلاعات و قوانین کیفری هند منجر شود.
در این دستور تأکید شده است: «بار دیگر یادآوری میشود که بیتوجهی به این الزامات بسیار جدی تلقی شده و میتواند پیامدهای قانونی سختی را برای پلتفرم شما، مسئولین مربوطه و همچنین کاربران قانونشکن بدون اطلاع قبلی به همراه داشته باشد.»
دولت هند اعلام کرد بیتوجهی به این موضوع میتواند منجر به اقدام قانونی علیه X بر پایه قوانین فناوری اطلاعات و جنایی هند شود.
هند بهعنوان یکی از بزرگترین بازارهای دیجیتال جهان، اکنون به عرصه مهمی برای سنجش میزان مسئولیتپذیری پلتفرمها در قبال محتوای تولیدشده توسط هوش مصنوعی بدل شده است. اجرای سختگیرانهتر قوانین در این کشور میتواند تاثیراتی گسترده برای شرکتهای فناوری جهانی که در حوزههای مختلف فعالیت میکنند، داشته باشد.
این دستور در شرایطی صادر شده که X ایلان ماسک همچنان در تلاش برای به چالش کشیدن برخی بخشهای مقررات محتوایی هند در دادگاهها است؛ این شبکه به اعتراض میگوید که اختیارات دولت مرکزی در حذف محتوا ممکن است بیش از حد باشد، حتی با اینکه تاکنون بیشتر دستورات مسدودسازی را اجرا کرده است. در عین حال، Grok توسط کاربران X هر روز بیشتر برای حقیقتسنجی لحظهای و اظهار نظر درباره وقایع خبری به کار گرفته میشود و این موضوع خروجیهای این ابزار را بیش از پیش در معرض توجه و حساسیتهای سیاسی قرار داده است؛ چیزی که در مورد ابزارهای مستقل هوش مصنوعی کمتر رخ میدهد.
X و xAI تا لحظه انتشار این خبر به درخواست خبرنگار برای اظهار نظر درباره دستور دولت هند پاسخ ندادند.
